Численный анализ: измерение величины: нормы векторов и матриц

В итеративной матричной алгебре нам нужна строгая математическая основа для измерения «размера» векторов и матриц. Эти метрики позволяют определить, приближается ли приближение к истинному решению. Нормы векторов и матриц отображают многомерные массивы в неотрицательные действительные числа, сохраняя определённые алгебраические свойства, которые ограничивают ошибки и гарантируют сходимость.

Аксиоматическая основа норм

Определение 7.1: Норма вектора

Норма вектора $\|\cdot\|$ на $\mathbb{R}^n$ должна удовлетворять четырём критериям:

Невырожденность: $\|\mathbf{x}\| \geq 0$
Однозначность: $\|\mathbf{x}\| = 0 \iff \mathbf{x} = \mathbf{0}$
Абсолютная однородность: $\|\alpha \mathbf{x}\| = |\alpha| \|\mathbf{x}\|$
Неравенство треугольника: $\|\mathbf{x} + \mathbf{y}\| \leq \|\mathbf{x}\| + \|\mathbf{y}\|$

Основные метрики: $l_2$ и $l_\infty$

Согласно Определению 7.2, наиболее важными нормами для численного анализа являются:

Евклидова норма ($l_2$): $\|\mathbf{x}\|_2 = \{ \sum_{i=1}^n x_i^2 \}^{1/2}$. Геометрически — кратчайшее расстояние от начала координат.
Максимальная норма ($l_\infty$): $\|\mathbf{x}\|_\infty = \max_{1 \leq i \leq n} |x_i|$. Это отражает наибольшую по модулю компоненту.

Эти определения позволяют определить расстояние между точным решением $\mathbf{x}$ и приближением $\mathbf{y}$ как $\|\mathbf{x} - \mathbf{y}\|$ (определение 7.4).

Нормы матриц и вызванное увеличение

Норма матрицы добавляет пятое свойство «субмультипликативности» (определение 7.8): $\|A B\| \leq \|A\|\|B\|$.

Теорема 7.11: Максимальная сумма по строкам

Для матрицы $A$ размером $n \times n$ естественная норма $l_\infty$ вычисляется как максимальная из абсолютных сумм по строкам: $$\|A\|_{\infty} = \max_{1 \leq i \leq n} \sum_{j=1}^{n} |a_{ij}|$$

Разобранный пример: вычисление вектора и матрицы

Рассмотрим $\mathbf{x} = (-1, 1, -2)^t$ и $A = \begin{bmatrix} 1 & 2 & -1 \\ 0 & 3 & -1 \\ 5 & -1 & 1 \end{bmatrix}$.

Нормы вектора

$\|\mathbf{x}\|_\infty = \max(|-1|, |1|, |-2|) = 2$.
$\|\mathbf{x}\|_2 = \sqrt{(-1)^2 + (1)^2 + (-2)^2} = \sqrt{6} \approx 2.449$.

Норма матрицы $l_\infty$

Строка 1: $|1|+|2|+|-1|=4$
Строка 2: $|0|+|3|+|-1|=4$
Строка 3: $|5|+|-1|+|1|=7$
Результат: $\|A\|_\infty = 7$.

🎯 Основной принцип

Хотя конкретная «форма» величины меняется между нормами, Теорема 7.7 гарантирует эквивалентность: сходимость в норме $l_\infty$ означает сходимость в норме $l_2$ и наоборот.

$\|\mathbf{x}\|_\infty \leq \|\mathbf{x}\|_2 \leq \sqrt{n}\|\mathbf{x}\|_\infty$

ВОПРОС 1

Какое свойство отличает норму матрицы (определение 7.8) от стандартной нормы вектора?

Абсолютная однородность: ||αA|| = |α| ||A||

Субмультипликативность: ||AB|| ≤ ||A|| ||B||

Неравенство треугольника: ||A+B|| ≤ ||A|| + ||B||

Невырожденность: ||A|| ≥ 0

ВОПРОС 2

Вычислите норму $l_\infty$ вектора $\mathbf{x} = (-1, 1, -2)^t$.

√6

ВОПРОС 3

Дана матрица $A$ размером 3×3, если суммы абсолютных значений по строкам равны 4, 4 и 7 соответственно, чему равна ||A||∞?

ВОПРОС 4

Согласно неравенству Коши-Буняковского (теорема 7.3), какое из следующих утверждений верно для векторов $\mathbf{x}$ и $\mathbf{y}$?

Σ x_i y_i ≤ ||x||₂ ||y||₂

Σ x_i y_i ≤ ||x||∞ ||y||∞

||x + y||₂ ≤ ||x||₂ + ||y||₂

||Ax|| ≤ ||A|| ||x||

ВОПРОС 5

Если вектор в ℝ⁴ имеет норму $l_\infty$ равную 3, какова наименьшая верхняя граница его нормы $l_2$ согласно теореме 7.7?

√3

Вызов: сходимость и границы ошибок

Анализ норм матриц

Итерационный метод даёт приближение $\mathbf{\tilde{x}} = (1.2001, 0.99991, 0.92538)^t$ для системы, где точное решение $\mathbf{x} = (1, 1, 1)^t$. Кроме того, рассмотрим матрицу $A = \begin{bmatrix} 3 & -1 & 1 \\ 3 & 6 & 2 \\ 3 & 3 & 7 \end{bmatrix}$, используемую в контексте предобусловливания, где $C^{-1} = D^{-1/2}$.

Вопрос 1

Определите расстояния $l_2$ и $l_\infty$ между точным и приближённым решениями.

Решение:
1. Определите вектор ошибки $\mathbf{e} = \mathbf{x} - \mathbf{\tilde{x}} = (-0.2001, 0.00009, 0.07462)^t$.
2. $\|\mathbf{e}\|_\infty = \max(|-0.2001|, |0.00009|, |0.07462|) = 0.2001$.
3. $\|\mathbf{e}\|_2 = \sqrt{(-0.2001)^2 + (0.00009)^2 + (0.07462)^2} \approx \sqrt{0.04004 + 0 + 0.00557} \approx 0.2136$.

Вопрос 2

Вычислите норму $l_\infty$ матрицы $A$ и объясните, как масштабирование через $D^{-1/2}$ влияет на норму.

Решение:
1. Суммы по строкам матрицы $A$: R1: $|3|+|-1|+|1|=5$; R2: $|3|+|6|+|2|=11$; R3: $|3|+|3|+|7|=13$. Таким образом, $\|A\|_\infty = 13$.
2. Масштабирование через $D^{-1/2}$, где $D = \text{diag}(3, 6, 7)$, приводит к новой матрице $A' = D^{-1/2}A$. Каждая строка $i$ делится на $\sqrt{a_{ii}}$. Это обычно снижает норму и делает диагональные элементы $\sqrt{a_{ii}}$, стремясь сбалансировать влияние различных уравнений в итеративных методах.

Вопрос 3

Проверьте, удовлетворяет ли функция $\| \mathbf{x} \|_{1} = \sum_{i=1}^{n} |x_i|$ аксиоме неравенства треугольника.

Доказательство:
Пусть $\mathbf{x}, \mathbf{y} \in \mathbb{R}^n$.
$\| \mathbf{x} + \mathbf{y} \|_1 = \sum_{i=1}^n |x_i + y_i|$.
По неравенству треугольника для скаляров, $|x_i + y_i| \leq |x_i| + |y_i|$ для каждого $i$.
Суммируя по всем $i$: $\sum |x_i + y_i| \leq \sum (|x_i| + |y_i|) = \sum |x_i| + \sum |y_i|$.
Следовательно, $\| \mathbf{x} + \mathbf{y} \|_1 \leq \| \mathbf{x} \|_1 + \| \mathbf{y} \|_1$. Аксиома выполнена.